讓AI大眾化,Amazon Bedrock生成無限可能
-
DIGITIMES
/
台北
- 2024-06-24 18:11:29
AWS 自去年推出了名為 Amazon Bedrock 的新服務,專門用來讓更多客戶可以輕鬆使用生成式AI。Bedrock 提供多種預訓練好的基礎模型,並允許客戶使用自己的資料來客製自己的專屬模型。AWS 致力讓生成式AI的應用更加普及,為不同行業帶來革新。
生成式AI無處不在,Bedrock 開放定製讓其大眾化
隨著生成式AI技術的發展,其應用已遍佈各個領域。AWS爲此推出了Amazon Bedrock服務,專門用來讓更多客戶可以輕鬆使用生成式AI。
Bedrock包含了AWS自研的Titan基礎模型,以及來自Anthropic、Stability AI等公司的Claude、Stable Diffusion模型,近日更納入了 Mistral AI 的模型,客戶可以利用自己的數據來微調這些模型,只需提供20個樣本,就可以一鍵定製出符合自己需求的模型。
數據加密處理是Bedrock的一大特色,可保護客戶數據隱私。客戶的數據不會用來再訓練底層大模型。此外,Bedrock可無縫與AWS其他服務結合,全面支援生成式AI應用,不需額外管理基礎設施,或擁有大量計算資源,就可以建立自己的生成式AI模型和應用。
AWS自主研發晶片大幅降低成本,讓生成式AI應用更高效經濟
要讓生成式AI真正大眾化,除了開放定製,降低使用門檻外,還需要有效控制訓練和推理的計算成本。AWS在這方面也做了大量工作。
AWS設計的Trainium和Inferentia晶片,可大幅提升生成式AI的訓練和推理效率。Trainium晶片訓練成本可降低50%,是目前最具性價比的訓練晶片。Inferentia晶片推理速度提高4倍,延遲降低10倍,也顯著降低了推理成本。
透過自主設計的晶片,AWS充分發揮了其在基礎設施和晶片技術上的優勢,成功使生成式AI的訓練和推理變得更高效且經濟。這也是促進生成式AI普及的重要一環。
隨著Bedrock的推出和AWS晶片技術的進一步發展,相信生成式AI的訓練和使用成本會進一步下降,讓更多組織都能輕鬆獲得生成式AI的強大能力。
20年磨礪,AWS將AI刻在企業DNA
AWS在人工智能領域已累積20餘年的技術與產品優勢,AI已深深融入了AWS的企業DNA。
在機器學習技術堆棧的各個層面,AWS均有著豐富的產品組合。在基礎設施層面,AWS提供GPU、AI訓練及推論等高性能計算資源,以及SageMaker、EKS等可無縫調度資源的服務。在框架和工具層面,AWS提供SageMaker框架、Deep Learning AMI等工具,幫助用戶高效訓練模型。在應用層面,AWS提供Rekognition、Comprehend等多種預訓練好的AI服務,加速企業AI應用落地。
在生成式AI領域,AWS也早有布局。Titan就是AWS自主研發的大規模生成式語言模型。AWS還是第一個將大語言模型商業化的公有雲。
AWS會持續大力投入AI創新,為用戶提供性價比極高的基礎設施和工具。Bedrock就是AWS致力於讓更多客戶使用生成式AI的最新成果。隨著時間的推移,AWS在AI領域的技術積累將為客戶的AI創新提供強大支撐。
AWS Bedrock 開創生成式AI新局面
Bedrock致力於讓生成式AI變得普及起來。任何客戶和開發者現在都可以輕鬆使用各種預訓練模型,並只需要很少的樣本就可以定製出符合自己需求的模型。
與此同時,AWS也在持續優化基礎設施和自主研發的晶片,大幅降低了生成式AI的訓練和推理成本。這些都將為生成式AI的大規模商業化應用奠定了堅實基礎。
可以預見,在不久的將來,生成式AI將為各行各業帶來革命性的創新與進步。AWS 的 Bedrock正是這場變革的先聲,它標誌著生成式AI已漸漸進入大眾化應用的新階段。